GEAR: Guided End-to-End AutoRegression for Image Synthesis
GEAR：端到端引导式自回归图像生成
🧭 端到端联合训练与表示对齐
北京大学 · 腾讯混元
通过双路读出实现 VQ tokenizer 与 AR 生成器端到端联合训练，加速收敛并提升表示对齐
📌 工作参考价值（4 点）
- 生成式推荐的 tokenizer 与生成器联合优化：若用 VQ 将物品 ID 映射为离散 token 再自回归生成推荐列表，可借鉴双路读出（硬分支训生成器、软分支用表示对齐损失更新 tokenizer），解决离散索引不可导问题，使 tokenizer 主动适配生成器。
- 表示对齐损失的设计：将 DINOv2 等预训练特征作为对齐目标，只用于 tokenizer 的软分支梯度回传，生成器本身并不直接接收对齐损失，这种非对称设计可迁移到推荐场景中，让物品 tokenizer 学到更易被生成器预测的分布。
- 收敛加速：该方法在 ImageNet 上将 gFID 收敛速度提升最高 10 倍，对于推荐模型同样追求快速迭代，联合训练可能显著减少达到目标性能所需的训练步数，尤其适合需要频繁更新的工业级推荐系统。
- 灵活适配不同量化器：方法兼容 VQVAE、LFQ、IBQ 等多种量化方式，推荐系统中物品 ID 的离散化策略多样，此技术可降低替换量化模块的适配成本。